Експертите по поверителността бият тревога за най-новия AI инструмент на Microsoft

Най-популярната нова AI функционалност на Microsoft поражда опасения, че е допустимо да бъде злоупотребена в неправилни ръце.

Тази седмица компанията сподели нов инструмент, наименуван Recall за компютри с Windows, който работи като персонална „ машина на времето “, позволявайки на потребителите бързо да изтеглят всичко, което в миналото е било на екрана, като документи, изображения и уеб страници. Различно е от търсене по основни думи; инструментът постоянно резервира екранни фотоси на екрана на потребителя и ги съхранява непосредствено на устройството. След това употребява AI, с цел да обработи данните и да ги направи годни за търсене.

Например, в случай че някой преди е търсил зелена рокля или името на локален магазин за сладолед, той може да изиска от функционалността да си „ напомни “ всичко в неговата история, което е било показано на екрана.

Въпреки че по този начин нареченото семантично търсене е огромна крачка напред за AI, то идва в миг, когато промишлеността се движи толкоз бързо и държавните регулатори, фирмите и потребителите към момента измислят по какъв начин да употребяват технологията отговорно.

Джен Голбек – професор по изкуствен интелект в Университета на Мериленд, който се концентрира върху поверителността – сподели, че функционалността за евакуиране може да съставлява евентуален „ призрачен сън “, в случай че устройството попадне в несъответствуващи ръце.

„ Нещата може да останат на вашето устройство, само че това не значи, че хората не могат да стигнат до тях “, сподели тя. „ Няма да имате алтернатива да се отбраните, даже в случай че употребявате режим „ тайно “ или изчистите историята си, тъй като инструментът има достъп до всичко, което е било на екрана ви. “

Независимият регулатор на Обединеното кралство за отбрана на данните и свободата на информацията, Офисът на комисаря по информацията (ICO), сподели пред CNN, че изследва инструмента, „ с цел да разбере защитните ограничения, които са въведени за отбрана дискретност на потребителя. "

„ Очакваме организациите да бъдат транспарантни с потребителите по отношение на това по какъв начин се употребяват техните данни и да обработват персонални данни единствено до степента, в която е належащо за реализиране на съответна цел “, се споделя в изказване на ICO.

Microsoft не отговори незабавно на искане за коментар. Главният изпълнителен шеф Сатя Надела сподели пред The ​​Wall Street Journal в изявление преди старта в понеделник, че уеб търсенията би трябвало да се правят единствено в уеб браузъра Edge на Microsoft и че екранните фотоси в никакъв случай не напущат компютъра на потребителя.

„ Трябва да съчетаете две неща: това е моят компютър и това е моето отзоваване – и всичко се прави локално “, сподели той.

Джеф Блейбър, основен изпълнителен шеф на компанията за пазарни изследвания CCS Insight, сподели, че това прави въпроса по-малко обезпокоителен.

„ Отрицателната реакция на някои към тази функционалност не е изненадваща, само че е прекомерна реакция, като се има поради, че данните остават извънредно на устройството и потребителят има цялостен надзор “, сподели Блабър.

Някой може да реши дали да включи функционалността по време на процеса на конфигурация на устройството и може да персонализира и сложи в черен лист до кои приложения и уеб страници Recall има достъп.

„ Тези контроли допускат, че функционалността е построена сигурно и дискретност в основата си “, сподели той. „ Отзоваването няма да се хареса на всички, само че предоставената полза евентуално ще бъде забележителна. “

Потенциал за злонамерено използване

Но Голбек цитира моменти, когато тази отбрана може да не е задоволителна, като да вземем за пример публицист във враждебна страна, човек, който се пробва да се измъкне от насилствена връзка, някой, който търси сензитивна здравна информация или чиновник, чийто началник желае да ги наблюдава. Тя има вяра, че проблемите към инструмента евентуално ще обиден най-вече работното място.

„ Знаем, че работните места следят какво вършим на техните устройства, само че доста хора ще създадат нещо персонално на работния си компютър и всичко това ще бъде архивирано и очевидно за ИТ отдел, даже в случай че просто остане на устройството, “, добави тя.

Голбек сподели, че технологията, макар изгодите, прекомерно постоянно се създава, без да се вземат поради злонамерените използва.

„ Това, което видяхме през последните 15 години, е, че всеки един от тези евентуални случаи на злонамерена приложимост се осъществя по един или различен метод “, сподели тя. „ Хората ще желаят да употребяват тази страхотна функционалност, без да схващат риска за поверителността – че ще има непрекъснат запис на всичко, което вършиме. “

Подобни реакции към функционалности като биометрични пароли, като пръстови отпечатъци, лицево различаване и сканиране на ириса, се появиха в предишното. Блейбър сподели, че с цел да преодолеят някои от първичните опасения, Microsoft и нейните сътрудници ще би трябвало да потвърдят цената, сигурността и поверителността на продукта в действителния свят.

Все отново Микела Ментинг, старши шеф по проучванията в ABI Research, счита, че функционалността е „ крачка обратно “ за поверителността.

„ Аргументът, че хакерите се нуждаят от физически достъп, с цел да могат даже да манипулират Recall, е в най-хубавия случай късоглед, тъй като има доста гениални способи, по които участниците в опасността могат да употребяват подобен скъп инструмент “, сподели тя. „ Необходими са единствено време и старания, с цел да се откри метод. “